ชเตราส์เกิดที่กรุงเวียนนา บิดาของเขาไม่ต้องการให้เขาประกอบอาชีพนักดนตรีแต่อยากให้เป็นนายธนาคารมากกว่า อย่างไรก็ดี เขาได้หัดเล่นไวโอลินอย่างลับ ๆ ตั้งแต่วัยเด็กกับฟรานซ์ อามอน นักไวโอลินในวงดนตรีของพ่อ อยู่มาวันหนึ่ง เมื่อบิดาทราบว่าเขาฝ่าฝืนคำสั่ง โยฮันที่สองเล่าถึงเหตุการณ์วันนั้นว่า เป็น "ฉากที่มีแต่ความรุนแรงและไม่น่าดูชม" และ "บิดาของเขาไม่ต้องการรับรู้ใด ๆ ทั้งสิ้นเกี่ยวกับแผนการทางดนตรีของเขา" มิใช่ว่าชเตราส์ผู้พ่อไม่ต้องการให้เกิดนักดนตรีคู่แข่ง แต่เขาต้องการให้บุตรของตนหลีกหนีจากชีวิตนักดนตรีเสียมากกว่า จนกระทั่งเมื่อบิดาทิ้งครอบครัวไปอยู่กับภรรยาน้อย เอมิล แทรมบุช จึงเปิดโอกาสให้โยฮันที่สองสามารถเริ่มอาชีพนักประพันธ์เพลงอย่างจริงจังได้ เมื่อเขามีอายุได้ 17 ปี

โยฮันผู้บุตรได้ศึกษา counterpoint และ เสียงประสาน จากนักทฤษฎีดนตรี ศาสตราจารย์โยอาคิม ฮอฟฟ์มันน์ ผู้เป็นเจ้าของโรงเรียนดนตรีเอกชน ความสามารถของเขาเป็นที่ประจักษ์แก่คีตกวี โยเซฟ เดร็คชเลอร์ ซึ่งเป็นครูสอนแบบฝึกหัดด้านเสียงประสานให้ ครูสอนไวโอลินอีกคนชื่ออันโตน โคลมันน์ เป็นผู้ฝึกสอนบัลเลต์ให้กับอุปรากรแห่งราชสำนักเวียนนา ก็ได้เขียนจดหมายแนะนำตัวให้เขาเป็นอย่างดี ด้วยจดหมายแนะนำที่ยอดเยี่ยมหลายฉบับ เขาได้เข้าพบผู้มีอำนาจในกรุงเวียนนาเพื่อขอใบอนุญาตเปิดการแสดง และตั้งวงดุริยางค์ของตนเองขึ้น โดยได้ว่าจ้างสมาชิกจากวงดนตรีต่าง ๆ ที่เล่นในผับ Zur Stadt Belgrad (แหล่งของนักดนตรีที่หางานทำ) มาร่วมวง อิทธิพลของโยฮัน ชเตราส์ ผู้พ่อ ทำให้สถานที่ต่าง ๆ ไม่กล้าว่าจ้างชเตราส์บุตร ด้วยเกรงว่าจะทำให้ชเตราส์ผู้พ่อโกรธ แต่ชเตราส์บุตรสามารถโน้มน้าวผู้บริหารของคาสิโนดอมมาเยอร์ ผู้จัดการสถาบันไฮท์ซิง ในกรุงเวียนนาเป็นผลสำเร็จ ทำให้เขาได้เริ่มเปิดการแสดง สื่อมวลชนต่างโหมเสนอข่าว "ชเตราส์ ปะทะ ชเตราส์" หรือการเผชิญหน้าระหว่างบุตรกับบิดา ซึ่งผู้เป็นพ่อเองก็ไม่ยอมไปเปิดการแสดงที่คาสิโนของนายดอมเมอเยอร์อีกตลอดชีวิต ด้วยความโกรธที่บุตรฝ่าฝืนความปรารถนาของเขา ซึ่งเป็นที่น่าประหลาดใจเนื่องจากสถาบันไฮท์ซิงเป็นที่ที่เขาประสบความสำเร็จในการแสดงหลายครั้งด้วยกัน